etl_unicorn's Introduction

ChromosomeDNA

🔥 Deta ETL AI Workflow Tool Software For Data Mining Piple Line Operations /德塔人工智能数据分析ETL可重用节点工作流处理软件引擎系统。

这个工程用于节点数据工作流执行。该软件的亮点为：世界最轻的ETL批处理引擎（6KB）采用VPCS结构，启动快，效率高，操作简单，结构轻，网页嵌入，执行快，高并发，二次开发简易，自由修改源码实现各种风格。

<<100%属于(首创)个人著作权引擎系统 cn 2019R11L803285>> 当前版本号 V1.0.2 软著登字第4240558号

说明书地址：

https://github.com/yaoguangluo/AOPM_VPCS_Theroy/blob/master/%E5%BE%B7%E5%A1%94ETL%E5%8F%AF%E8%A7%86%E5%8C%96%E6%95%B0%E6%8D%AE%E5%88%86%E6%9E%90%E5%BC%95%E6%93%8E%E7%B3%BB%E7%BB%9FAPI%201.0.2%20%E8%AF%B4%E6%98%8E%E4%B9%A6%20final.docx

皮肤系统 3%借鉴Sun Tech的开源组件皮肤实例(拖标样式，Jtree样式和分割板样式)。已经从该项目移动到如下项目。

https://github.com/yaoguangluo/Data_Processor/tree/master/DP/org/LYG/GUI/platForm

皮肤系统神经元皮肤灵感**来自牛顿教授linkedin发布的各种脑科图片注如图右下角红色部分神经细胞。

节点系统的文件命名规则采用 Knime的节点包文件命名规则(配置，执行，查看 3个词语)), （该规则世界主流分析软件通用）。

作者感谢德国康斯坦茨大学 Knime 项目组。为作者提供了ETL知识与其年轻时启蒙基础。并永久承诺该项目的闭源商业应用10%的综合权益赠与 Knime 项目组。

作者感谢英国牛津大学牛顿霍华德教授。并永久承诺该项目的闭源商业应用3%的综合权益赠与牛顿霍华德教授。

作者感谢github，给作者免费的移动硬盘空间服务，并永久承诺该项目的闭源商业应用1%的综合权益赠与github 运维组。

作者感谢gitee，给作者免费的移动硬盘空间服务，并永久承诺该项目的闭源商业应用1%的综合权益赠与gitee 运维组。

作者感谢 Sun Tech (被甲骨文公司收购) JDK控件开发组。并永久承诺该项目的闭源商业应用1%的综合权益赠与JDK控件开发组。

项目进展

正完善功能算法整体优化。

已完善功能快速链接弧线箭头带精度自适应未优化版。Mr.Yaoguang 20190306

已完善功能引擎 while loop 优化，大幅缩短延迟。

已完善功能汉化版本

已完善功能比较级优化，避免条件错误。

已完善功能引擎优化一次操作500节点不卡。

已完善功能数据操作进行文字提示 20190304 Mr.Luo

正完善功能神经元细胞皮肤设计，灵感来自牛顿教授。, 1:1, 1:2, 2:1, 2:2, 3:1(已完成), 3:2, 3:3。 20190223 罗瑶光

已完善功能可自由以applet形式发布到网页上。 2012-2019 罗瑶光

已完善功能可自由设置节点的传递对象。 2012-2019 罗瑶光

已完善功能可自由修改和引用任何api。 2012-2019 罗瑶光

已完善功能可自由集成各种javaUI组件。 2012-2019 罗瑶光

已完善功能可自由嵌入到各种java程序中。 2012-2019 罗瑶光

已完善功能节点流序列化 2012-2019 罗瑶光

已完善功能节点流多样化 2012-2019 罗瑶光

已完善功能节点分级 2012-2019 罗瑶光

已完善功能节点终端处理 2012-2019 罗瑶光

已完善功能节点实例化 2012-2019 罗瑶光

已完善功能节点功能操作 2012-2019 罗瑶光

已完善功能 osgi扩展 2012-2019 罗瑶光

已完善功能节点连线时进行去其他节点闪烁优化。 2012-2019 罗瑶光

已完善功能规范了下编程结构。 2012-2019 罗瑶光

已完善功能链接自动校准 2012-2019 罗瑶光

已完善功能链接磁力效果 20190203 罗瑶光

已完善功能链接点提示 20190203 罗瑶光

已完善功能文件命名规范 20190203 罗瑶光

已完善功能节点输入输出链接点提示 20190203 罗瑶光

已完善功能将放映界面从70帧改成32帧，有效滤燥 20190203 罗瑶光

已完善功能上中下的三种连接模式进行美观化。 20190205 罗瑶光，简单实现而已，专业设计搁置

已完善功能箭头校准(箭头画采用bit map)。

已完善功能节点功能窗口显示放弃JInternalFrame 采用 JFrame,因为画版是自己手工的, 所以刷新针把窗体给透明了,造成关闭按钮动态显示需要鼠标移动右上角激活,现在已经修复.20190504

已完善功能箭头比例修正。链接修正。20190206 罗瑶光

已完善功能节点神经元结构设计。

已完善功能 (图形加速算法正在设计)自适应操作速度开始优化20190503.

已完善功能规范编程变量名称。

已完善功能异常提示功能区。

已完善功能节点连线完整性矫正。20190612

已完善功能 ETL 删除功能实现。20190604

正完善功能带单例运行记录，保存，载入，刷新。删除, 其他的流整体档案操作ok了，只差配置执行数据了。 20190606

正完善功能《码农的修养》格式化中。。。。

正完善功能一键执行功能.

正完善功能全面过渡到 vpcs 催化结构和细化工作。已完成局部pcs注册工厂模式。

正完善功能一键执行功能.

正完善功能一键档案执行功能.

正完善功能一键批处理档案集合执行功能. 这几天写下unit 测试包.

正完善功能所有代码进行文字描述，方便日后出版。作者要组织文字来描述当年为什么要这样写，写的时候遇到了什么困难，是怎么解决的，写的时候怎么思考，将来需要怎么优化等。

正完善功能软件执行可观测的状态map

未完善功能 batch 批处理（不再做这CMD功能，以后做 TinShell）

未完善功能最近100次节点配置记录流程进行时间操作。

未完善功能集成更多的weka 和 R

正完善功能第5次引擎清洗，全面用VPCS 替换 vpc 结构，需要时间。

未完善功能删除功能进行美观化。

未完善功能多国语言。

未完善功能基于这个etl 软件开发商业版，把我的照片去掉，换成开源无版权的独角兽图片。

未完善功能 osgi 注册模式修改为文件扫描注册。

德塔数据分析怎么编译

该软件只需要一个Java IDE（eclipse， idea 等），和utf8字符集，在任何支持JDK8+以上的操作系统都能跑。

该软件引擎作者纯手工，没有任何插件，可自由翻译成其他语言版本。

德塔数据分析怎么编译

该软件只需要一个Java IDE（eclipse， idea 等），和utf8字符集，在任何支持JDK8+以上的操作系统都能跑。

该软件引擎作者纯手工，没有任何插件，可自由翻译成其他语言版本。

作者：罗瑶光 20190310

etl_unicorn's Issues

为什么不将插件做成jar包扩展模式

这个ETL,主要有4个用途， 1 超轻量级文档批处理 2 海量数据并行运算 3 DNA 同步运算 4 神经网络并发运算，如果将插件进行jar包扩展，则打破了该项目的原有目的：小，快，易集成。所以作者将OSGI **设计成集成非插件化函数。

存档系统的设计

德塔准备将存档系统数据设计成如下格式
加密数据名->加密数据内容
空行
加密数据名->加密数据内容
空行
加密数据名->加密数据内容
空行
加密数据名->加密数据内容
空行
加密数据名->加密数据内容

空行拆分KV表，先捋一捋。 20190529

关于插件扫描OSGI注册模式

因为该作品已经申请个人软著，osgi实现不方便在作品中发布。
于是贴在这里。作者已经调通论证如下。

String jarCategoryLink= "";
FileDialog filedialog= new FileDialog(new Frame(), StableData.ATTENSION_LOAD_HISTORY
, FileDialog.LOAD);
filedialog.setFilenameFilter(new TXTFilter(StableData.FILE_FORMAT_ETL));
filedialog.setVisible(true);
jarCategoryLink= filedialog.getDirectory();
System.out.println(jarCategoryLink);
if(null== jarCategoryLink|| jarCategoryLink.isEmpty()|| jarCategoryLink.contains
(StableData.FILE_FORMAT_JAR)) {
System.out.println(StableData.ATTENSION_RECHOICE);
return first;
}
File file= new File(jarCategoryLink);
if(file.isFile()) {
System.out.println(StableData.ATTENSION_FILE_CHOICE);
return first;
}
File[] files= file.listFiles();
for(int i= 0; i< files.length; i++) {
@SuppressWarnings("deprecation")
URLClassLoader loader= new URLClassLoader(new URL[]{ files[i].toURL() });
String filename= files[i].getName().replace(".jar", "");
String[] columns= filename.split("\.");
//如下2行代码 refer https://www.cnblogs.com/chinaxin/p/3678442.html
//这小伙子以后有前途。哈哈
//Class myclass = loader.loadClass("hand.java.loadjar.TestClass"); //Gene new object //Object myobject = myclass.newInstance(); Class myclass= loader.loadClass(filename+ "."+ columns[columns.length- 1]+ "NodeInterface");
Object myobject= myclass.newInstance();
//我准备之后设计成病毒式热插拔，因为绕过虚拟机的**涉及情报学特工和计算机病毒领域，害怕国家相关安全体系管控，暂时不研发。
ObjectInterface objectInterface= (ObjectInterface) myobject;
first = link.addNode(first, objectInterface);
}

第二代主题

我考虑了很久，怎么能让这个工程进入可持续研发的战略，以前我有写了软件工程的进化论的论文，用在这个工程上，我想到了许多闪光点，其中一个，就是皮肤系统。让大家喜爱的软件，视觉永远是永恒的主题。

这个主题中，视觉特效设计和算法功能扩展优化是这个版本的最核心部分。

说找到这，我制定了一堆的任务出来了，那就马上开始了。

该项目算法原理，技术应用特点和起源动机

算法原理，技术应用特点
这个项目算法原理作者不再保留，其核心机制是基于VPC-VPCS 做动态插件堆扩展新思路将节点进行手绘控件形式重用划分，保证运算引擎小到极致，这样满足了节点类似脑细胞运算一样进行高并发耦合，该平台最后成为类人数据大脑的容器，采用 applet 控件编程自由嵌入各种网页，前端和程序界面中，满足将来的类人系统可以在互联网各种终端上与计算和用户交互无死角。作者设计一个流一个档案的形式，日后将vpcs DNA的initons 定义为单一的档案流，进行时序批处理交互，满足类人的复杂思考进化需求。 20190614 罗瑶光。

注：算法中OSGI名称字样作者不是参考其OSGI等源码修改（OSGI引擎闭源，大家想看也看不到。就算看的到，我代码全部无保留开源了，直接和我的源码对比，全部是自己写的，大家放心使用吧），而是 PLUGIN等字符都比它长，所以用了OSGI，用户如果不喜欢可以将osgi关键字换掉，没有任何关系，别担心，作者永久用 Apache2.0 协议。只要是基于我的代码改的，就不会有侵权风险。

作者在这里还是要感谢谢KNIME, LIFERAY, LINUX. 作者2009年用Knime sdk的时候觉得节点插件重用很完美，后来2013在路德大学做项目，发现Liferay 的窗体重用插件也不错，后来发现所有市面操作系统所有业务逻辑都是插件化更新，于是开始有兴趣自己也设计个可重用节点的ETL unicorn 做学校的计算机视觉项目作业。（作者在美国用自己的美国银行卡在 Frys 购买了 OSGI ** 和 liferay 的几本教科书，自学了遍，在这里表示感谢 -- Frys 工业城市洛杉矶店销售历史记录可查。）

Recommend Projects

yaoguangluo / etl_unicorn Goto Github PK

etl_unicorn's Introduction

最新见 https://github.com/yaoguangluo/ChromosomeDNA

🔥 Deta ETL AI Workflow Tool Software For Data Mining Piple Line Operations /德塔人工智能数据分析ETL可重用节点工作流处理软件引擎系统。

这个工程用于节点数据工作流执行。该软件的亮点为：世界最轻的ETL批处理引擎（6KB）采用VPCS结构，启动快，效率高，操作简单，结构轻，网页嵌入，执行快，高并发，二次开发简易，自由修改源码实现各种风格。

<<100%属于(首创)个人著作权 引擎系统 cn 2019R11L803285>> 当前版本号 V1.0.2 软著登字第4240558号

说明书地址：

皮肤系统 3%借鉴Sun Tech的开源组件皮肤实例(拖标样式，Jtree样式和分割板样式)。已经从该项目移动到如下项目。

皮肤系统 神经元皮肤 灵感**来自牛顿教授linkedin发布的各种脑科图片 注 如图 右下角 红色部分 神经细胞。

节点系统 的文件命名规则 采用 Knime的节点包文件命名规则(配置，执行，查看 3个词语)), （该规则世界主流分析软件通用）。

作者感谢德国康斯坦茨大学 Knime 项目组。为作者提供了ETL知识 与其 年轻时启蒙基础。并永久承诺该项目的闭源商业应用10%的综合权益赠与 Knime 项目组。

作者感谢英国牛津大学 牛顿霍华德教授。并永久承诺该项目的闭源商业应用3%的综合权益赠与牛顿霍华德教授。

作者感谢github，给作者免费的移动硬盘空间服务，并永久承诺该项目的闭源商业应用1%的综合权益赠与github 运维组。

作者感谢gitee，给作者免费的移动硬盘空间服务，并永久承诺该项目的闭源商业应用1%的综合权益赠与gitee 运维组。

作者感谢 Sun Tech (被甲骨文公司收购) JDK控件开发组。并永久承诺该项目的闭源商业应用1%的综合权益赠与JDK控件开发组。

项目进展

正完善功能 算法整体优化。

已完善功能 快速链接弧线箭头带精度自适应未优化版。Mr.Yaoguang 20190306

已完善功能 引擎 while loop 优化，大幅缩短延迟。

已完善功能 汉化版本

已完善功能 比较级优化，避免条件错误。

已完善功能 引擎优化 一次操作500节点不卡。

已完善功能 数据操作进行文字提示 20190304 Mr.Luo

正完善功能 神经元细胞皮肤设计，灵感来自牛顿教授。, 1:1, 1:2, 2:1, 2:2, 3:1(已完成), 3:2, 3:3。 20190223 罗瑶光

已完善功能 可自由以applet形式发布到网页上。 2012-2019 罗瑶光

已完善功能 可自由设置节点的传递对象。 2012-2019 罗瑶光

已完善功能 可自由修改和引用任何api。 2012-2019 罗瑶光

已完善功能 可自由集成各种javaUI组件。 2012-2019 罗瑶光

已完善功能 可自由嵌入到各种java程序中。 2012-2019 罗瑶光

已完善功能 节点流序列化 2012-2019 罗瑶光

已完善功能 节点流多样化 2012-2019 罗瑶光

已完善功能 节点分级 2012-2019 罗瑶光

已完善功能 节点终端处理 2012-2019 罗瑶光

已完善功能 节点实例化 2012-2019 罗瑶光

已完善功能 节点功能操作 2012-2019 罗瑶光

已完善功能 osgi扩展 2012-2019 罗瑶光

已完善功能 节点连线时进行去其他节点闪烁优化。 2012-2019 罗瑶光

已完善功能 规范了下编程结构。 2012-2019 罗瑶光

已完善功能 链接自动校准 2012-2019 罗瑶光

已完善功能 链接磁力效果 20190203 罗瑶光

已完善功能 链接点提示 20190203 罗瑶光

已完善功能 文件命名规范 20190203 罗瑶光

已完善功能 节点输入输出链接点提示 20190203 罗瑶光

已完善功能 将放映界面从70帧改成32帧，有效滤燥 20190203 罗瑶光

已完善功能 上中下的三种连接模式进行美观化。 20190205 罗瑶光， 简单实现而已，专业设计搁置

已完善功能 箭头校准(箭头画采用bit map)。

已完善功能 节点功能窗口显示放弃JInternalFrame 采用 JFrame,因为画版是自己手工的, 所以刷新针把窗体给透明了,造成关闭按钮动态显示需要鼠标移动右上角激活,现在已经修复.20190504

已完善功能 箭头比例修正。链接修正。20190206 罗瑶光

已完善功能 节点 神经元结构设计。

已完善功能 (图形加速算法正在设计)自适应操作速度开始优化20190503.

已完善功能 规范编程变量名称。

已完善功能 异常提示功能区。

已完善功能 节点连线完整性矫正。20190612

已完善功能 ETL 删除功能 实现。20190604

正完善功能 带单例运行记录，保存，载入，刷新。删除, 其他的流整体档案操作ok了，只差配置执行数据了。 20190606

正完善功能 《码农的修养》格式化中。。。。

正完善功能 一键执行功能.

正完善功能 全面过渡到 vpcs 催化结构和细化工作。已完成局部pcs注册工厂模式。

正完善功能 一键执行功能.

正完善功能 一键档案执行功能.

正完善功能 一键批处理档案集合执行功能. 这几天写下unit 测试包.

正完善功能 所有代码进行文字描述，方便日后出版。作者要组织文字来描述当年为什么要这样写，写的时候遇到了什么困难， 是怎么解决的，写的时候怎么思考，将来需要怎么优化等。

正完善功能 软件执行可观测的状态map

未完善功能 batch 批处理（不再做这CMD功能， 以后做 TinShell）

未完善功能 最近100次节点配置记录流程进行 时间操作。

未完善功能 集成更多的weka 和 R

正完善功能 第5次 引擎清洗，全面用VPCS 替换 vpc 结构，需要时间。

未完善功能 删除功能进行美观化。

未完善功能 多国语言。

未完善功能 基于这个etl 软件 开发商业版，把我的照片去掉，换成开源无版权的独角兽图片。

未完善功能 osgi 注册模式修改为文件 扫描注册。

德塔数据分析怎么编译

该软件 只需要一个Java IDE（eclipse， idea 等）， 和utf8字符集，在任何支持JDK8+以上的操作系统都能跑。

该软件引擎 作者纯手工，没有任何插件，可自由翻译成其他语言版本。

德塔数据分析怎么编译

该软件 只需要一个Java IDE（eclipse， idea 等）， 和utf8字符集，在任何支持JDK8+以上的操作系统都能跑。

该软件引擎 作者纯手工，没有任何插件，可自由翻译成其他语言版本。

etl_unicorn's People

Contributors

Stargazers

<<100%属于(首创)个人著作权引擎系统 cn 2019R11L803285>> 当前版本号 V1.0.2 软著登字第4240558号

皮肤系统神经元皮肤灵感**来自牛顿教授linkedin发布的各种脑科图片注如图右下角红色部分神经细胞。

节点系统的文件命名规则采用 Knime的节点包文件命名规则(配置，执行，查看 3个词语)), （该规则世界主流分析软件通用）。

作者感谢德国康斯坦茨大学 Knime 项目组。为作者提供了ETL知识与其年轻时启蒙基础。并永久承诺该项目的闭源商业应用10%的综合权益赠与 Knime 项目组。

作者感谢英国牛津大学牛顿霍华德教授。并永久承诺该项目的闭源商业应用3%的综合权益赠与牛顿霍华德教授。

正完善功能算法整体优化。

已完善功能快速链接弧线箭头带精度自适应未优化版。Mr.Yaoguang 20190306

已完善功能引擎 while loop 优化，大幅缩短延迟。

已完善功能汉化版本

已完善功能比较级优化，避免条件错误。

已完善功能引擎优化一次操作500节点不卡。

已完善功能数据操作进行文字提示 20190304 Mr.Luo

正完善功能神经元细胞皮肤设计，灵感来自牛顿教授。, 1:1, 1:2, 2:1, 2:2, 3:1(已完成), 3:2, 3:3。 20190223 罗瑶光

已完善功能可自由以applet形式发布到网页上。 2012-2019 罗瑶光

已完善功能可自由设置节点的传递对象。 2012-2019 罗瑶光

已完善功能可自由修改和引用任何api。 2012-2019 罗瑶光

已完善功能可自由集成各种javaUI组件。 2012-2019 罗瑶光

已完善功能可自由嵌入到各种java程序中。 2012-2019 罗瑶光

已完善功能节点流序列化 2012-2019 罗瑶光

已完善功能节点流多样化 2012-2019 罗瑶光

已完善功能节点分级 2012-2019 罗瑶光

已完善功能节点终端处理 2012-2019 罗瑶光

已完善功能节点实例化 2012-2019 罗瑶光

已完善功能节点功能操作 2012-2019 罗瑶光

已完善功能节点连线时进行去其他节点闪烁优化。 2012-2019 罗瑶光

已完善功能规范了下编程结构。 2012-2019 罗瑶光

已完善功能链接自动校准 2012-2019 罗瑶光

已完善功能链接磁力效果 20190203 罗瑶光

已完善功能链接点提示 20190203 罗瑶光

已完善功能文件命名规范 20190203 罗瑶光

已完善功能节点输入输出链接点提示 20190203 罗瑶光

已完善功能将放映界面从70帧改成32帧，有效滤燥 20190203 罗瑶光

已完善功能上中下的三种连接模式进行美观化。 20190205 罗瑶光，简单实现而已，专业设计搁置

已完善功能箭头校准(箭头画采用bit map)。

已完善功能节点功能窗口显示放弃JInternalFrame 采用 JFrame,因为画版是自己手工的, 所以刷新针把窗体给透明了,造成关闭按钮动态显示需要鼠标移动右上角激活,现在已经修复.20190504

已完善功能箭头比例修正。链接修正。20190206 罗瑶光

已完善功能节点神经元结构设计。

已完善功能规范编程变量名称。

已完善功能异常提示功能区。

已完善功能节点连线完整性矫正。20190612

已完善功能 ETL 删除功能实现。20190604

正完善功能带单例运行记录，保存，载入，刷新。删除, 其他的流整体档案操作ok了，只差配置执行数据了。 20190606

正完善功能《码农的修养》格式化中。。。。

正完善功能一键执行功能.

正完善功能全面过渡到 vpcs 催化结构和细化工作。已完成局部pcs注册工厂模式。

正完善功能一键执行功能.

正完善功能一键档案执行功能.

正完善功能一键批处理档案集合执行功能. 这几天写下unit 测试包.

正完善功能所有代码进行文字描述，方便日后出版。作者要组织文字来描述当年为什么要这样写，写的时候遇到了什么困难，是怎么解决的，写的时候怎么思考，将来需要怎么优化等。

正完善功能软件执行可观测的状态map

未完善功能 batch 批处理（不再做这CMD功能，以后做 TinShell）

未完善功能最近100次节点配置记录流程进行时间操作。

未完善功能集成更多的weka 和 R

正完善功能第5次引擎清洗，全面用VPCS 替换 vpc 结构，需要时间。

未完善功能删除功能进行美观化。

未完善功能多国语言。

未完善功能基于这个etl 软件开发商业版，把我的照片去掉，换成开源无版权的独角兽图片。

未完善功能 osgi 注册模式修改为文件扫描注册。

该软件只需要一个Java IDE（eclipse， idea 等），和utf8字符集，在任何支持JDK8+以上的操作系统都能跑。

该软件引擎作者纯手工，没有任何插件，可自由翻译成其他语言版本。

该软件只需要一个Java IDE（eclipse， idea 等），和utf8字符集，在任何支持JDK8+以上的操作系统都能跑。

该软件引擎作者纯手工，没有任何插件，可自由翻译成其他语言版本。